IA acelera a ciência, enquanto a confiança nos resultados é questionada - resenha crítica

Quando uma empresa de tecnologia anuncia que sua inteligência artificial "descobriu" algo na ciência, o que normalmente está por trás é uma triagem em escala impossível para uma equipe humana: o programa percorre bancos de dados com milhões de compostos químicos, sequências genéticas ou imagens de satélite, reconhece padrões e devolve uma lista curta de candidatos promissores. Depois disso, em geral, cientistas vão ao laboratório ou ao campo verificar se aquilo funciona.

Isso alcança a vida de quem lê de forma bem concreta: é desse processo que saem candidatos a antibióticos contra bactérias resistentes, materiais para baterias e previsões sobre proteínas ligadas a doenças. Mas também levanta uma pergunta que a comunidade científica ainda não resolveu: como verificar o que foi atribuído à máquina. É nesse contexto que aparece o episódio da semana. A Anthropic, empresa americana de inteligência artificial, anunciou que agentes de IA haviam encontrado sozinhos novas enzimas de interesse para a biotecnologia. Dias depois, um biólogo computacional da Universidade de Copenhague disse que a ferramenta pode ter se apoiado em pesquisa dele ainda não publicada.

O que a IA já ajudou a encontrar

A lista de resultados concretos é real e não é curta. Em parceria com o Pacific Northwest National Laboratory, ligado ao Departamento de Energia dos Estados Unidos, a Microsoft usou IA e supercomputadores para reduzir 32 milhões de materiais inorgânicos possíveis a poucas dezenas de candidatos em menos de uma semana, uma triagem que pelos métodos tradicionais poderia levar mais de duas décadas. O material escolhido, um eletrólito de estado sólido, chegou a um protótipo de bateria em menos de nove meses e poderia reduzir o uso de lítio em até 70%.

No Canadá, pesquisadores da Universidade McMaster treinaram um programa para reconhecer as características químicas de drogas capazes de atacar a Acinetobacter baumannii, bactéria classificada pela Organização Mundial da Saúde como ameaça crítica. A ferramenta levou uma hora e meia para filtrar uma lista de 6.680 compostos; dos 240 testados em laboratório, nasceu um antibiótico experimental chamado abaucina, que ainda precisa passar por ensaios clínicos.

A arqueologia teve resultado parecido. Uma equipe japonesa da Universidade de Yamagata, com pesquisadores da IBM Research, usou um modelo de detecção de objetos para apontar locais promissores no deserto de Nazca, no Peru, e verificou em campo 303 geoglifos até então desconhecidos, quase dobrando o número conhecido dessas figuras com mais de 2.000 anos. O trabalho foi publicado na PNAS, revista da Academia Nacional de Ciências dos Estados Unidos. E, em 2024, o Nobel de Química foi para David Baker, Demis Hassabis e John Jumper justamente por trabalhos de desenho e predição da estrutura de proteínas apoiados em inteligência artificial.

O caso que acendeu o alerta

Na semana passada, a Anthropic apresentou conclusões de seu novo laboratório de biologia: agentes de IA teriam vasculhado bancos com bilhões de sequências genéticas e identificado um conjunto de enzimas chamadas transcriptases reversas, associadas a moléculas de RNA, em vírus que infectam bactérias. A empresa afirmou que a IA havia dado "os primeiros passos de uma descoberta biológica por conta própria".

Mario Rodríguez Mestre, biólogo computacional da Universidade de Copenhague, contestou. Ele e seus colegas estudam essas enzimas há quatro anos, encontraram as primeiras em 2022 e as apelidaram de "jumbotrons". As conclusões ainda não foram publicadas, mas, ao longo dos últimos três anos, o grupo usou regularmente os modelos da Anthropic para escrever código, redigir manuscritos e outras tarefas, compartilhando no caminho descobertas sobre o tema. "A pergunta mais importante não é: 'As enzimas já eram conhecidas?' Eram", disse ele em entrevista. A questão, segundo Mestre, é se a IA chegou ao resultado por raciocínio próprio ou se foi conduzida até ele.

A Anthropic respondeu em comunicado que não tem conhecimento de trabalho publicado anteriormente descrevendo o conjunto que encontrou, e que o Claude não foi treinado com transcrições de usuários nem a equipe de biologia molecular tem acesso a elas. No relatório, os pesquisadores da empresa não descreveram os comandos exatos que usaram. Mestre afirma que não tem como saber ao certo se houve influência de seu trabalho, e que coincidências acontecem. Por precaução, decidiu encerrar seus projetos com a ferramenta.

A dúvida não é inédita. Em outubro, a OpenAI chegou a afirmar que seu modelo havia resolvido um problema matemático clássico, e pesquisadores apontaram que ele apenas reapresentou soluções já publicadas, inclusive em artigos antigos e em outros idiomas. A Anthropic, que deve abrir seu capital com uma avaliação que pode chegar a US$ 2 trilhões, vem promovendo a pesquisa biológica como parte central de sua missão.

Não é um episódio isolado

A dificuldade de verificar resultados é mais antiga que a IA, e ela própria já foi alvo de uma tentativa de medição. Financiado pela agência de pesquisa de defesa dos Estados Unidos, o projeto Score reuniu 865 pesquisadores a partir de 2019 para analisar 3.900 artigos de ciências sociais e tentar treinar programas capazes de prever quais estudos resistiriam ao escrutínio. A equipe replicou 164 deles: cerca de metade produziu os mesmos resultados dos originais. As previsões da IA não foram aleatórias, mas ficaram longe de confiáveis. "Ainda não chegamos lá", disse Brian Nosek, do Centro para Ciência Aberta e um dos líderes do projeto.

Há ainda o problema das fontes. Segundo levantamento relatado pelo MIT Technology Review, modelos populares de IA recorrem a artigos científicos já retratados ao responder perguntas, sem avisar o usuário de que aquele material foi retirado do registro científico. Um dos obstáculos é a falta de padronização entre editoras sobre como marcar retratações, o que dificulta a detecção automática.

Caixa-preta e padronização da escrita

A Royal Society, academia de ciências britânica, alertou que a natureza de caixa-preta de muitas ferramentas de IA limita a reprodutibilidade das pesquisas feitas com elas: nem sempre é possível reconstruir o caminho que levou ao resultado. Em pesquisa da revista Nature com 1.600 cientistas, mais da metade esperava que essas ferramentas fossem muito importantes ou essenciais para o trabalho.

Um alerta diferente apareceu em artigo no periódico Trends in Cognitive Sciences, assinado por pesquisadores da Universidade do Sul da Califórnia. Como os grandes modelos de linguagem são treinados pela estatística de coocorrência de palavras, segundo o artigo, eles tendem a reproduzir perspectivas e estilos de escrita convencionais, criando "uma ilusão de consenso" e silenciando formas de expressão culturalmente diversas. O risco apontado não é o erro factual, e sim a homogeneização do que se escreve em ciência.

Quem desenvolve a tecnologia também pede cautela

A ressalva não vem só de fora. Depois do recuo sobre o problema matemático, a OpenAI passou a falar em "humildade epistemológica". Kevin Weil, vice-presidente da empresa e líder da iniciativa voltada à ciência, afirmou ao MIT Technology Review que o objetivo não é substituir cientistas nem produzir descobertas inéditas, mas acelerar a pesquisa, e que o esforço atual é fazer o modelo dizer "aqui está algo a considerar" em vez de "aqui está a resposta".

Mesmo nos casos bem-sucedidos, a cautela aparece. Edward Brightman, professor de engenharia química da Universidade de Strathclyde, disse que a tecnologia usada na busca por materiais de bateria precisa ser "tratada com um pouco de cautela", porque pode gerar resultados espúrios ou apontar materiais já conhecidos. O ponto comum a essas avaliações é que os modelos dependem da qualidade dos dados com que foram treinados e precisam de validação experimental.

O que fazer com essa informação

Diante do próximo anúncio de descoberta feita por IA, vale observar se o resultado já passou por revisão por pares ou por replicação independente, que continua sendo a forma reconhecida de confirmar um achado, mesmo com todas as dificuldades que o projeto Score mediu. Vale checar se quem anunciou detalhou os comandos e os dados usados, informação que a Anthropic não divulgou em seu relatório. E vale procurar se cientistas que não participam do projeto contestaram a autoria ou a originalidade, como ocorreu no caso das enzimas e, antes, no do problema matemático atribuído à OpenAI.

Nenhum desses sinais prova fraude quando falta, e nenhum garante o achado quando aparece. Eles apenas separam o que já foi verificado do que ainda é anúncio. Na próxima vez que você vir uma manchete dizendo que a IA descobriu algo sozinha, o que você vai procurar antes de repassar a notícia?